Auf der Suche nach dem Fairness-Fehler

Ja oder Nein. In der Forschung von Christoph Kern geht es theoretisch auch um Entscheidungen, die Leben verändern können. Der Juniorprofessor für Social Data Science und Statistical Learning untersucht Prozesse automatisierter Entscheidungsfindung, bei denen Maschinelles Lernen eine Rolle spielt.

Beispiele aus anderen Ländern zeigen, wie problematisch solche Ansätze sein können, die in den USA sogar im Justizwesen eingesetzt wurden. ADM, die Abkürzung steht für Automated decision-making, wird mittlerweile aber auch in Europa zum Beispiel bei der Betreuung von Arbeitslosen verwendet.

Mithilfe sogenannter Profiling-Modelle werden Jobsuchende automatisch von einer Software in bestimmte Risikoklassen eingeteilt – je nachdem, wie hoch ihr Risiko ist, langzeitarbeitslos zu werden. Die Idee dahinter: Personen bestmöglich zu unterstützen und Maßnahmen passend zu verteilen. Die Gefahr ist jedoch, dass dies zu unerwünschten oder gar unfairen Ergebnissen führt.

Genau hier setzt die Forschung von Christoph Kern an, die empirisch-praktisch vorgeht. Er untersucht, welche Modelle automatischer Entscheidungsfindung es bereits gibt, und testet, wie gut sie für bestimmte Personengruppen funktionieren und ob sie Vorhersagefehler produzieren. Noch funktioniert die Schnittstelle zur Praxis nicht optimal: „Es gibt eine große Lücke zwischen dem, was möglich ist, und den Modellen, die angewendet werden. Da ist noch viel zu tun.“

Christoph Kern ist Sozialwissenschaftler und zugleich Experte für Maschinelles Lernen. Promoviert wurde er nach seinem Soziologiestudium im Jahr 2016 an der Universität Duisburg-Essen mit einer Arbeit zu regionaler Arbeitsmarktmobilität. Zunächst daran interessiert, wie Machine-Learning-Verfahren in der sozialwissenschaftlichen Forschung genutzt werden können, begann er sich damit auseinanderzusetzen, wie die Verfahren in der „echten Welt“ angewendet werden und welche Probleme damit verbunden sein können.

Viele Anknüpfungspunkte und eine große Offenheit

Nach seiner Promotion war Christoph Kern von 2017 bis 2022 wissenschaftlicher Mitarbeiter am Department für Soziologie an der Universität Mannheim und ist seit 2020 auch Projektleiter am Mannheimer Zentrum für Europäische Sozialforschung. In diesen Jahren führten ihn mehrere Forschungsaufenthalte in die USA an die University of Chicago, die University of Michigan, die UC Berkeley und die University of Maryland, mit der Kern noch immer affiliiert ist. Seit Oktober 2020 ist Christoph Kern an der LMU, zunächst als Interim-Professor und seit September 2022 als Juniorprofessor.

An der LMU ist Christoph Kern mit seiner Professur am Institut für Statistik angesiedelt. Er sei „noch immer beim Ankommen“. Das liegt an den Möglichkeiten, die sich hier für seine Forschung auftun: „Es ist toll, dass es an der LMU ein so großes und extrem gutes Statistik-Institut gibt mit sehr ausgewiesenen Persönlichkeiten, die sich mit Machine Learning beschäftigen. Es gibt sehr viele Anknüpfungspunkte und eine große Offenheit.“

Christoph Kern setzt dabei auch auf die Zusammenarbeit über Fächergrenzen hinweg. „Bei Fragen zu Fairness im Machine Learning ist es wichtig, interdisziplinär zusammenzuarbeiten. Es braucht Perspektiven aus einem breiten Spektrum von Philosophie bis hin zu Informatik.“